Heterogeneous Agentic Coevolution
异质智能体共进化：专用基础模型与LLM Agent的互惠学习
🧭 专用模型与LLM Agent共进化训练 ★ 深度解读
Meta AI · University of Virginia
提出 HACE 框架，让专用基础模型与 LLM agent 互惠共进化，在推荐、蛋白质功能、材料稳定预测上全面超越收敛后基线
📌 工作参考价值（5 点）
- 用 LLM agent 做“经验筛选器”提升收敛后的推荐模型：让 agent 基于当前 specialist 的预测生成候选，只保留贡献 r_i = q_A - q_S > 0 的 verified response，再用这些 response 选择 specialist 的训练样本。电商推荐中可对已收敛的 SASRec/HSTU/Wukong 类模型继续榨取提升，尤其长尾/冷门类目。
- 融合打分公式很轻量，可直接上线实验：joint prediction 使用 s_i(c) + λ a_i(c)，agent 分数按 log reciprocal rank 衰减，λ 通过交叉验证在固定网格上选择。这种 fusion 不改变 specialist 结构，适合快速接入现有排序链路。
- 保留更新需做 paired validation，避免噪声回滚：每次 specialist 或 harness 更新后，在同一 validation batch 上用当前 agent 做配对评估，只接受 ΔJ > 0 的 proposal。工程上可作为在线/离线模型迭代的安全门控。
- harness 进化搜索可自动发现上下文/课程策略：论文中 harness 搜索会自动移除 genre metadata、隐藏候选排名、把课程指向 hard cases。对应推荐系统可进化地决定给 agent 看哪些特征/上下文、以及哪些训练样本进入下轮 specialist 微调，减少人工试错。
- agent 与 specialist 不必同构，小 agent 也可能够用：实验显示 Gemma-4 E4B 比更大的 26B-A4B 带来更稳定提升，说明业务中不必追求超大 LLM agent，计算资源配置可优先给 specialist 微调。